Dương Tu người Hoằng Nông, Hoa Âm (nay là Hoa Âm, Thiểm Tây), xuất thân cao môn sĩ tộc.

Tằng tổ phụ Dương Chấn (楊震), tổ phụ Dương Tứ (楊賜) đều làm quan Thái úy dưới thời Đông Hán. Đến đời cha là Dương Bưu, họ Dương giữ chức Thái úy dưới triều Hán Hiến Đế, được Hậu Hán thư gọi là Tứ thế Thái úy (四世太尉), có thể nói là một sĩ tộc vô cùng hiển hách không kém họ Viên của Viên Thiệu, Viên Thuật và họ Vương của Tư đồ Vương Doãn. Cha ông Dương Bưu vốn là một số rất ít trung thần dám phản đối quyền thần lấn át Thiên tử (trước là Đổng Trác, sau này là Tào Tháo). Vợ của Dương Bưu là Viên phu nhân, em gái Viên Thuật và Viên Thiệu.

Khi Viên Thuật công khai xưng đế chống triều đình, Tào Tháo vốn không ưa Dương Bưu, bèn nhân đó lệnh bắt giam ông định giết. Nhưng nhờ có Khổng Dung can gián về đức độ của ông, Tào Tháo bèn thả ông. Biết nhà Hán sắp mất không thể cứu vãn được, Dương Bưu bèn cáo bệnh xin về ở ẩn.

Dương Tu vốn là người có tài, xuất thân cao môn sĩ tộc lại có tiếng học rộng hiểu sâu, ông từ vị Hiếu liêm (孝廉) dần dần làm đến chức Chủ bộ (主簿), là thủ hạ dưới trướng Tào Tháo khi ấy đang là Thừa tướng. Quyền cao chức trọng, hằng ngày Tào Tháo bận nhiều việc, hầu hết các việc trong ngoài của phủ đều do Dương Tu nắm giữ. Có thể nói, Dương Tu khi ấy là một trong những nhân vật ảnh hưởng nhất triều đình.

Ông có mối giao hảo tốt với Tào Thực, con trai thứ tư của Tào Tháo và quyết định trở thành mưu sĩ theo phò cho Tào Thực trong cuộc chiến giành ngôi vị Thế tử giữa Tào Thực và Tào Phi. Tuy nhiên, quan hệ giữa Dương Tu với Tào Phi cũng không xấu. Tu từng tặng Phi một thanh kiếm, được Phi rất yêu thích luôn mang theo bên mình. Sau này khi Tào Phi xưng đế, nhìn lại thanh bảo kiếm thì nhớ đến Dương Tu, bảo rằng "Dương Đức Tổ nói đây là thanh kiếm của Vương Mao", rồi cho người tìm Mao và ban thưởng quần áo và lương thực. Gọi Dương Tu bằng tên chữ, vì Dương Tu mà ban thưởng cho Vương Mao, có thể thấy ít nhất Tào Phi không ghét Dương Tu.